Gia thế Trương Quỹ vốn hiếu liêm, nổi tiếng với Nho học. Thời niên thiếu, Trương Quỹ đã thông minh hiếu học, rất có danh vọng, từng ẩn cư trên Nữ Ki sơn (女幾山) ở Nghi Dương quận. Sau khi triều Tây Tấn được kiến lập, ông vào nhậm chức quan trong triều, do cùng trung thư giám Trương Hoa nghị luận ý nghĩa kinh tịch và chính sự nên được đối phương rất coi trọng. Trương Quỹ từng nhậm các chức vụ: thái tử xá nhân, thượng thư lang, thái tử tẩy mã, thái tử trung thứ tử, tán kị thường thị, chinh Tây tướng quân tư mã.